كشفت شركة "غوغل" أنّ نموذج الذكاء الاصطناعي الخاص بها "جيميناي" تمكّن من اختراق ثلاث شركات بشكل مستقل، خلال اختبار لقدراته في مجال الأمن السيبراني. وأفادت الشّركة بأنّ هذه الحادثة تُعتبر الأولى من نوعها الّتي يُعرف فيها عن قيام نموذج ذكاء اصطناعي بمثل هذا الفعل.
وأوضح مسؤول في "غوغل" لهيئة الإذاعة البريطانيّة "بي بي سي"، أنّ "جيميناي" عثر على معلومات عامّة على الإنترنت، وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونيّة كان يعتقد أنّها جزء من الاختبار، مشيرًا إلى أنّ النّموذج توقّف عن العمل في كلّ حالة بعد نجاحه في الاختراق.
وقد تمّ إبلاغ الشّركات المتضرّرة بهذه الاختراقات الّتي حدثت في شهر أيّار الماضي. علمًا بأنّ فريق "غوغل" الأمني أكّد أنّه عمل مع الشّريك المسؤول عن التدريب، على إجراء التغييرات اللّازمة في عمليّات الاختبار المستقبليّة.
ويأتي هذا الكشف في وقت يشهد فيه العالم جدلًا متجدّدًا حول سرعة تطوير الذكاء الاصطناعي، حيث تدعو بعض شركات التكنولوجيا إلى إبطاء هذا التطوّر بسبب المخاوف من التهديد المحتمل للبشريّة، بينما لا تتفق جميع الشّركات أو الخبراء مع هذا الرّأي. وتتصاعد حاليًّا النّقاشات العامّة حول سلامة تطوير هذه التقنيّة، بالإضافة إلى المحادثات حول تنظيمها وتقنين استخدامها.
في سياق متصل، أوضحت "بي بي سي" أنّ الاختراقات حدثت خلال اختبار أجرته شركة "إيريغولار" المستقلّة المتخصصة في تقييم الأمن السّيبراني. وأكّدت الشّركة في بيان لها، أنّها أبلغت "غوغل" وجميع الكيانات المتضرّرة في شهر تمّوز الماضي، كجزء من تحقيقها، وأنّها اتخذت إجراءات فوريّة لمعالجة جميع الثّغرات المعروفة.
ووفقًا لتقارير صحيفة "وول ستريت جورنال"، فإنّ النّموذج في إحدى الحالات قام بتخمين كلمات المرور بشكل متكرّر، حتى تمكّن من الوصول إلى نظام محمي. وأكّدت نائبة رئيس هندسة الأمن في "غوغل" هيذر أدكنز، أنّ هذه الأحداث تبرز أهميّة تدريب نماذج الذّكاء الاصطناعي القويّة على التصرّف بمسؤوليّة.
وختمت "بي بي سي" تقريرها بالإشارة إلى أنّ هذه ليست الحالة الوحيدة من نوعها، حيث أبلغت أنظمة ذكاء اصطناعي أخرى عن حوادث اختراق مماثلة مؤخّرًا. وأكّدت أنّ الجدل العام حول سلامة تطوير هذه التقنيّة يتزايد باستمرار، في وقت تتسارع فيه وتيرة التطور التكنولوجي، وتتصاعد فيه المخاوف من فقدان السّيطرة البشريّة على هذه الأنظمة الذّكيّة.
